Dari segi saiz badak sumbu India menyamai badak sumbu Putih di Afrika; kedua-duanya merupakan badak sumbu terbesar dalam semua spesies badak sumbu. Jantan yang matang adalah lebih besar berbanding betina yang hidup liar, mencecah berat sehingga 2,200 hingga 3,000 kg (4,900 hingga 6,600 lb). Badak sumbu India betina seberat sekitar 1,600 kg. Badak sumbu India adalah setinggi 1.7 hingga 2 m (5 ka 7 in hingga 6 ka 7 in) dan mampu mencecah sepanjang 4 m (13 ka). Spesiment memecah rekod bagi badak sumbu ini adalah sekitar 3,500 kg.

Badak sumbu India memiliki tanduk tunggal; ia terdapat pada badak jantan dan betina, tetapi tiada bagi badak yang baru lahir. Tanduk tersebut sama seperti kuku manusia, keratin tulin dan mula menonjol selepas 6 tahun. Bagi kebanyakan dewasa tanduk mencecah panjang sekitar 25 sentimeter,[9] tetapi terdapat rekod tanduk yang sepanjang 57.2 sentimeter. Tanduk hidung melengkung kebelakang dari hidung. Tanduknya secara semulajadi bewarna hitam. Dikalangan badak dalam kurungan, tanduk itu sering kali haus ke ketulan tebal.[3]

Badak sumbu yang kelihatan seperti haiwan purba ini memiliki kulit tebal perang-keperakan yang menjadi merah jambu berhampiran dengan lipatan kulit tebal yang melitupi badannya. Badak sumbu jantan memiliki lipatan tengkuk tebal. Kaki hadapan dan bagunya diselitupi dengan bonggol seperti ketuat. Ia memiliki bulu badan yang jarang , selain bulu mata, tepi telinga dan bulu ekor yang seperti berus lukis.[3]

Dalam kurungan, empat ekor diketahui hidup melebihi 40 tahun, yang tertua hidup sehingga 47 tahun.[3]